OpenAI дебютира с инструмент за клониране на глас, но го смята за твърде рисковано за публично пускане

OpenAI показа инструмент за клониране на гласове на хора, само че въздържа общественото му стартиране заради опасения за допустима корист в основна изборна година.

Voice Engine може да копира гласа на човек въз основа на 15-секундна аудио проба, съгласно обява в блог на OpenAI, демонстрираща инструмента.

Но основателят на ChatGPT „ приема внимателен и осведомен метод “ към технологията и се надява да стартира разговор по отношение на „ виновното внедряване на синтетични гласове “, сподели компанията в обявата в блога, оповестена в петък.

„ Ние осъзнаваме, че генерирането на тирада, която прилича гласовете на хората, крие съществени опасности, които са изключително значими в годината на избори “, сподели основаната в Сан Франциско започваща компания.

„ Ангажираме се с американски и интернационалните сътрудници от държавното управление, медиите, развлеченията, образованието, гражданското общество и отвън тях, с цел да подсигуряваме, че включваме тяхната противоположна връзка, до момента в който построяваме. “

Споделяме нашите познания от дребен обзор на Voice Engine, модел, който употребява въвеждане на текст и единична 15-секундна аудио проба, с цел да генерира естествено звучаща тирада, която доста наподобява на истинския високоговорител. https://t.co/yLsfGaVtrZ

— OpenAI (@OpenAI) 29 март 2024 година

OpenAI сподели, че ще вземе „ по-информирано решение “ за внедряването на технологията в мащаб въз основа на тестване и обществен спор.

Компанията сподели, че има вяра, че технологията би трябвало да бъде публикувана единствено с ограничения, които подсигуряват, че „ истинският представител умишлено прибавя гласа си към услугата “ и предотвратяват „ основаване на гласове, които са прекомерно сходни на видни фигури “.

Злоупотребата с AI се обрисува като главен проблем преди изборите тази година в страни, представляващи към половината от популацията на света.

Гласоподавателите допълнително от 80 страни, в това число Мексико, Южна Африка и Съединените щати, ще гласоподават през 2024 година, която е наречена най-голямата изборна година в историята.

Влиянието на изкуствения разсъдък върху гласоподавателите към този момент беше обект на надзор на няколко избора.

Затвореният някогашен министър-председател на Пакистан Имран Хан употребява генерирани от AI речи, с цел да притегли поддръжници в навечерието на парламентарните избори в страната през февруари.

През януари политически чиновник на дълготрайния претендент за президент на Съединени американски щати Дийн Филипс изпрати автоматизирано позвъняване, представяйки се за президента на Съединени американски щати Джо Байдън, което прикани гласоподавателите да не гласоподават на първичните избори на Демократическата партия в Ню Хемпшир.

OpenAI съобщи, че е приложил няколко ограничения за сигурност за своите сътрудници, тестващи Voice Engine, „ в това число слагане на водни знаци за следене на произхода на всяко аудио, генерирано от Voice Engine, както и самодеен мониторинг на това по какъв начин се употребява “.